D$^3$-Subsidy: Online and Sequential Driver Subsidy Decision-Making for Large-Scale Ride-Hailing Market
网约车司机补贴的动态扩散决策框架 D3-Subsidy
🧭 离线强化学习 + 扩散模型用于动态定价控制 ★ 深度解读
University of Hong Kong · Harbin Institute of Technology · Hong Kong Polytechnic University · Didi International Business Group
提出前缀条件扩散模型与Lagrangian-dual映射,在预算约束下实现城市级补贴的在线序列决策
📌 工作参考价值(4 点)
- 前缀条件扩散用于离线决策:部署时历史不可改变,训练时也固定历史前缀,仅扩散未来后缀,消除训练-推理 gap,可推广到任何需基于实时观测做序列决策的场景(如电商动态定价、Agent 策略学习)。
- 约束感知的后处理评分:在优化目标中加入对预算上限的 soft penalty,通过调整 penalty exponent 即可控制违规容忍度,无需重训模型,适合有严格 ROI 约束的营销或补贴分配任务。
- Lagrangian-dual 映射实现降维动作:将城市级标量控制信号通过闭式映射转为订单级补贴,既保证低延迟(单次决策 20ms),又避免个性化激励的不公平,可借鉴到大规模促销额度分配中,用总预算系数自动生成细粒度折扣。
- 多城预训练 + PEFT 冷启动迁移:先在多城数据上预训练扩散先验和逆动力学解码器,再对目标城市仅微调解码器(冻结扩散模型),大幅提升新市场冷启动效果,对电商新品类、新区域策略复用有直接参考。